Các hệ điều hành ban đầu chạy trực tiếp trên phần cứng và cung cấp dịch vụ cho các ứng dụng, nhưng với ảo hóa, hệ điều hành tự chạy dưới sự kiểm soát của một trình ảo hóa, thay vì kiểm soát trực tiếp phần cứng.

Trên các máy tính lớn, IBM đã giới thiệu khái niệm về một máy ảo vào năm 1968 với CP/CMS trên IBM System/360 Model 67, và đã mở rộng điều này sau đó vào năm 1972 với Virtual Machine Facility/370 (VM/370) trên System/370.

Trên các máy tính cá nhân dựa trên x86, VMware đã phổ biến công nghệ này với sản phẩm VMware Workstation năm 1999,[11] và các sản phẩm VMware GSX Server và VMware ESX Server năm 2001 của họ.[12] Sau đó, một loạt các sản phẩm từ những người khác, bao gồm Xen, KVM và Hyper-V, đến năm 2010 có hơn 80% doanh nghiệp đã có chương trình hoặc dự án ảo hóa, và 25% tổng khối lượng công việc của máy chủ sẽ ở trong một máy ảo.[13]

Theo thời gian, ranh giới giữa các máy ảo, monitor và hệ điều hành đã bị xóa nhòa:

• Hypervisors phát triển phức tạp hơn, có được giao diện lập trình ứng dụng,[14] quản lý bộ nhớ hoặc hệ thống tệp của riêng chúng.[15]
• Ảo hóa trở thành một tính năng chính của các hệ điều hành, như được minh họa bởi KVM và LXC trong Linux, Hyper-V trong Windows Server 2008 hoặc HP Integrity Virtual Machines trong HP-UX.
• Trong một số hệ thống, chẳng hạn như các máy chủ dựa trên POWER5 và POWER6 và từ IBM, bộ ảo hóa không còn là tùy chọn.[16]
• Các hệ điều hành được đơn giản hóa triệt để, như CoreOS đã được thiết kế để chỉ chạy trên các hệ thống ảo.[17]
• Các ứng dụng đã được thiết kế lại để chạy trực tiếp trên màn hình máy ảo.[18]

Theo nhiều cách, phần mềm máy ảo ngày nay đóng vai trò trước đây do hệ điều hành nắm giữ, bao gồm quản lý tài nguyên phần cứng (bộ xử lý, bộ nhớ, thiết bị I/O), áp dụng các chính sách lập lịch hoặc cho phép quản trị viên hệ thống quản lý hệ thống.